Deutschschweizer Jugendliche verschickten KI-Deepnudes von Mitschülerinnen
Bei den mutmasslichen Tätern handelt es sich um 12- bis 14-jährige Sekundarschüler, wie der Tages-Anzeiger berichtet. Sie sollen mithilfe von Künstlicher Intelligenz sexualisierte Deepfake-Bilder von Mitschülerinnen erstellt und über Snapchat an andere Jugendliche geschickt haben. Der Fall habe sich im vergangenen Jahr an einer Schule in der Deutschschweiz ereignet.
Mittlerweile wurde ein Verfahren gegen die Jugendlichen eröffnet. Der Fall liegt bei der Jugendanwaltschaft. Auch wenn die Täter am Schluss rechtlich bestraft werden, für die Opfer dürfte der Schaden bleiben. Denn solche Taten setzen auch psychisch massiv zu.
Viele Fälle an Schulen im Ausland
Das wird besonders mit einem Blick ins Ausland deutlich. Dort gab es in den letzten Jahren zahlreiche solcher Vorfälle. Die New York Times sprach in einem Artikel von 2024 gar von einer Epidemie. Schulen sähen sich mit neuen Herausforderungen konfrontiert.
Experten für Kindesmissbrauch erklären in dem Artikel, dass solche KI-Deepnudes, wie sie auch genannt werden, nicht nur erniedrigend sind und sich auf die psychische Gesundheit auswirken, sondern auch Karrierechancen vernichten können.
Die Betroffenen sind oft machtlos gegen die Verbreitung solcher Bilder. Auch in Spanien kursierten 2023 an Schulen KI-generierte Nacktbilder. Über 20 Mädchen waren damals betroffen. Mütter von Betroffenen wandten sich daraufhin an die Öffentlichkeit. Eine davon war Miriam Al Adib, eine Gynäkologin mit einer grossen Followerschaft. Sie wandte sich auch an die Täter: «Wenn ihr ein bisschen schlau seid, helft mit, all das, was ihr angerichtet habt, wieder in Ordnung zu bringen.»
Opfer werden als unglaubwürdig hingestellt
Gerade Snapchat begünstigt solche Taten. Denn die Bilder werden kurz nach dem Anschauen gelöscht. Und damit auch der handfeste Beweis. Im US-Staat Louisiana beispielsweise hatte eine 13-Jährige sich an den Schulleiter gewandt, doch weil die Bilder auf Snapchat nicht auffindbar waren, bezweifelte dieser, dass sie überhaupt existierten, berichtet die Nachrichtenagentur AP.
Als das Mädchen später per Zufall mitbekam, wie ein Mitschüler das Bild einem Freund zeigte, rastete sie aus, griff ihn an und wurde schliesslich zehn Wochen an eine andere Schule verwiesen. Erst die Polizei leitete schliesslich Schritte gegen zwei Jugendliche ein, die die Bilder verbreitet haben sollen.
Herausforderung für Schweizer Schulen
Die Präsidentin des Dachverbandes Schweizerischer Lehrerinnen und Lehrer LCH, Dagmar Rösler, hat damit gerechnet, dass solche Fälle auch in der Schweiz auftreten werden. «Diese Entwicklung ist für das Lehrpersonal und für die Schülerinnen und Schüler katastrophal», sagt sie zum «Tages-Anzeiger». Sie störe sich auch daran, dass globale Firmen profitierten, während Schulen, Eltern und Jugendliche die Konsequenzen tragen müssten.
Dabei kann auch das Herstellen oder Verschicken von solchen Bildern strafbar sein, wenn dies etwa ohne Einverständnis der Betroffenen geschieht oder die abgebildeten Personen unter 18 Jahre alt sind. Das gilt auch für Jugendliche, wie Rechtsanwalt Martin Wyss zur Zeitung sagt. Nur wenn dies einvernehmlich, unentgeltlich und mit einem maximalen Altersunterschied von drei Jahren geschieht, könne eine Ausnahme möglich sein.
Rösler sieht den Gesetzgeber und die Justiz in der Pflicht. Es brauche klare gesetzliche Schutzmassnahmen. Ausserdem müssten Schülerinnen und Schüler konsequent im Umgang mit Medien geschult werden und Eltern mehr Weiterbildungsangebote offenstehen. «Wir müssen gegen solche Programme vorgehen», sagt Rösler.
Der Kampf gegen Grok-Deepnudes
So einfach ist das nicht. Derartige KI-Deepfakes lassen sich relativ einfach und gratis generieren. Die Anbieter solcher Plattformen lassen sich schwer stoppen. Trotzdem ist es möglich: Erst kürzlich sah sich Elon Musks KI-Firma xAI mit heftiger Kritik konfrontiert, weil sich mit dem Chatbot Grok sexualisierte KI-Bilder von Minderjährigen erstellen liessen. Das Unternehmen kündigte daraufhin Massnahmen an, bis heute fordern Kritikerinnen und Kritiker jedoch ein härteres Vorgehen gegen solche Funktionen. Ende Januar wurde schliesslich bekannt, dass die zuständige EU-Kommission ein Verfahren gegen den Konzern eingeleitet hat.
